Depuis quelques années, dès la puce A11, Apple a intégré un NPU dans ses systèmes sur puce, ce qu'Apple nomme un Neural Engine. C'est un composant spécialisé dans les calculs liés aux IA, qui permet d'accélérer tout ce qui est lié aux réseaux neuronaux. Avec la puce M6, Apple a doublé son NPU, qui passe à 2x16 cœurs, mais les premiers tests spécialisés montrent aussi une chose : le double NPU tire bien mieux parti de la mémoire et de sa bande passante élevée.
Que cache le « double Neural Engine 16 cœurs » de la puce M6 ?
C'est un des avantages évidents des puces d'Apple : la marque a soigné l'interface mémoire. Les puces M emploient un bus sur 128 bits avec de la mémoire LPDDR5 rapide1, et les puces Pro, Max et Ultra étendent la largeur du bus, jusqu'à 1 024 bits dans le meilleur des cas. Mais même si les systèmes sur puce ont une bande passante théorique très élevée, le NPU, lui, est souvent limité. Les tests d'ANEMLL, une solution pensée pour exécuter des LLM sur le Neural Engine, le montrent bien.
Dans les puces M classiques, le NPU peut atteindre environ 60 à 70 Go/s, quand la mémoire, elle, dépasse largement 100 Go/s (154 Go/s avec la puce M5). Et même les puces M Pro ou Max limitent entre 120 et 150 Go/s selon leurs essais. Mais avec la puce M6, la barre est placée bien plus haut.
150 Go/s sur la puce M6
Dans les premiers tests, le NPU de la puce M6 a atteint 152 Go/s, une valeur deux fois plus élevée que la puce M5, et au niveau du NPU de la puce M5 Max. Le test a été effectué sur un Mac mini M6 avec 32 Go de RAM, donc avec de la mémoire (un peu) plus rapide que sur la version 16 Go, capable d'atteindre en théorie 170 Go/s environ.
Le Mac mini M6 avec 16 Go de RAM a de la mémoire plus lente
Même si le NPU ne peut pas récupérer l'entièreté de la bande passante (qui est partagée avec le CPU et le GPU, rappelons-le), la hausse est importante et est intéressante pour les solutions qui passent par le NPU. Certaines tâches liées aux LLM devraient être plus rapides, et les gains annoncés par Apple, et qui semblent se vérifier, proviennent probablement en partie de ce changement.
Mac mini M6 : les premiers benchmarks IA montrent des progrès fulgurants
Toute la question, maintenant, est de voir si ce changement se répercutera sur le NPU dans les futures puces M6 Pro, Max et peut-être Ultra et si la hausse de la bande passante permise par ces puces sera visible avec le NPU.
-
Sauf dans le cas particulier de la puce M1, qui utilisait de la LPDDR4. ↩︎
